Tháng 6 năm 2011, Nguyễn Ngọc Toàn là Thượng tá, Trưởng Công an thành phố Nam Định, tỉnh Nam Định.[1]

Từ năm 2014 đến tháng 7 năm 2016, Nguyễn Ngọc Toàn là Đại tá Công an, Phó Giám đốc Công an tỉnh Nam Định.[2][3][4]

Từ tháng 12 năm 2016 đến tháng 1 năm 2017, Nguyễn Ngọc Toàn là Đại tá công an, Cục trưởng Cục Tham mưu Chính trị Công an nhân dân - Bộ Công an.[5][6]

Ít tháng sau (năm 2017) ông được thăng quân hàm Thiếu tướng Công an nhân dân Việt Nam.[7]

Ngày 25 tháng 7 năm 2018, Thiếu tướng Nguyễn Ngọc Toàn, nguyên Cục trưởng Cục Tham mưu Chính trị Công an nhân dân - Bộ Công an, được trao quyết định của Bộ trưởng Bộ Công an bổ nhiệm giữ chức vụ Giám đốc Công an tỉnh Cao Bằng.[8][9]

Ngày 30 tháng 6 năm 2020 Bộ Công an tổ chức Lễ công bố quyết định của Bộ trưởng Bộ Công an về công tác cán bộ. Theo quyết định của Bộ trưởng Bộ Công an, Thiếu tướng Nguyễn Ngọc Toàn, Giám đốc Công an tỉnh Cao Bằng được điều động về làm Cục trưởng Cục công tác đảng và công tác chính trị, Bộ Công an thay Trung tướng Đào Gia Bảo nghỉ công tác chờ hưu.[10]